Probablemente recibió su primera enseñanza musical de Urban Ludwig Murschhauser (el padre de Franz Xaver Murschhauser), maestro de escuela en Zabern. En 1663 se matriculó en la Universidad de Würzburg.Su talento musical fue animado indudablemente en esa ciudad por los notables músicos Philipp Friedrich Buchner y Tobias Richter, Kapellmeisters de la catedral y de la corte en el obispado  principal de Würzburg y en Mainz.

El 2 de julio de 1677 fue nombrado en la Catedral de Breslau como Kapellmeister del cardenal Príncipe-obispo Friedrich, Landgrave de Hesse. Volvió a Würzburg en 1679 como Kapellmeister de la corte y de la catedral del Príncipe-obispo de Würzburg y Bamberg, Peter Philipp von Dernbach. En  enero de 1685 sucedió a J. M. Gletle como Kapellmeister en la Catedral de Augsburgo, donde fue estimulado por el Príncipe-obispo Johann Christoph, el Barón von Freyberg-Eisenberg, y en particular por Johann Rudolf, Conde Fugger von Kirchberg und Weissenhorn, para quien escribió y representó muchos Tafelmusik hasta su temprana muerte.

Caesar, que es clasificado por Printz en 1690 entre ‘los más recientes y famosos compositores' fue un músico respetado que publicó música sacra y secular. Sus obras impresas, conservados en sólo unas pocas copias completas, comprenden una colección de 22 ofertorios, 8 misas, 12 piezas de Tafelmusik (quodlibets solos, escenas de dúo, terzettos y una serie de varios ballets con el título humorístico de Musicalischer Wendunmuth, 26 salmos de vísperas con 2 obras de Magnificat y 40 himnos. Presumiblemente perdida está una colección de "Lustiger Balleten erster Theil", y la música para un drama escolar titulado "Mathias Corvinus" (realizado en el Gymnasium Jesuita de Augsburgo en 1687). Aunque se anunció en los catálogos de las ferias de Leipzig y Frankfurt de 1682, el "Lustige Tafel-Musik, in 6 Stücken… mit beygefügten 60 Balleten" probablemente nunca fue publicado. 

Como la música de iglesia de sus predecesores en la Catedral de Augsburgo, Baudrexel y Gletle, las obras sacras de Caesar son influenciadas por el estilo instrumental concertante italiano. Sin embargo, algunos de los ballets individuales muestran influencia francesa. . . Su humorístico "Wendunmuth", en parte en dialecto, ubica a Caesar en la típica tradición del quodlibet aleman del Sur que tuvo su centro en Augsburgo, y continuó desde Matthias Kelz (ii) a traves de J. V. Rathgeber hasta Mozart.